Lớp tàu tuần dương K, vốn còn bao gồm các tàu chị em Königsberg và Köln, được thiết kế trong những năm 1920 trong giới hạn tải trọng 6.000 tấn đặt ra bởi Hiệp ước Versailles. Chúng sử dụng cả hai loại động cơ turbine hơi nước và động cơ diesel; và do 85% kết cấu con tàu được hàn thay vì nối bằng đinh tán, chúng mắc phải những vấn đề về độ bền kết cấu và độ ổn định khi đi biển.

Được đặt tên theo thành phố Karlsruhe, nó được đặt lườn tại xưởng tàu Deutsche Werke ở Kiel vào ngày 27 tháng 7 năm 1926; được hạ thủy vào ngày 20 tháng 8 năm 1927 và được đưa ra hoạt động vào ngày 6 tháng 11 năm 1929.